OpenAI казва, че е прекъснал иранска кампания за дезинформация
OpenAI заяви в петък, че е открил и прекъснал иранска кампания за влияние, която е използвала генеративните технологии за изкуствен интелект на компанията за разпространение на дезинформация онлайн, включително съдържание, свързано с президентските избори в САЩ.
The San Francisco A.I. компанията заяви, че е забранила няколко акаунта, свързани с кампанията, от своите онлайн услуги. Иранските усилия, добави OpenAI, изглежда не са достигнали значителна аудитория.
„Изглежда, че операцията не се е облагодетелствала от значимо повишена ангажираност на публиката поради използването на AI“, каза Бен Нимо, главен изследовател на OpenAI, който е прекарал години в проследяване на тайни кампании за влияние от позиции в компании, включително OpenAI и Meta. „Не забелязахме признаци, че въобще получава значителна ангажираност от реални хора.“
издаде първия по рода си доклад, показващ, че е идентифицирал и прекъснал пет други онлайн кампании, които са използвали неговите технологии за измамно манипулират общественото мнение и влияят на геополитиката. Тези усилия бяха ръководени от държавни актьори и частни компании в Русия, Китай и Израел, както и Иран.Тези тайни операции използваха технологията на OpenAI за генериране на публикации в социалните медии, превод и редактирайте статии, пишете заглавия и отстранявайте грешки в компютърни програми, обикновено за да спечелите подкрепа за политически кампании или да промените общественото мнение в геополитически конфликти.
Тази седмица OpenAI идентифицира няколко акаунта в ChatGPT, които са използвали своя chatbot за генериране на текст и изображения за скрита иранска кампания, която компанията нарече Storm-2035. Компанията каза, че кампанията е използвала ChatGPT за генериране на съдържание, свързано с различни теми, включително коментари за кандидати в президентските избори в САЩ.
В някои случаи коментарът изглежда прогресивен. В други случаи изглеждаше консервативно. Освен това се занимава с горещи теми, вариращи от войната в Газа до независимостта на Шотландия.
Кампанията, каза OpenAI, е използвала своите технологии за генериране на статии и по-кратки коментари, публикувани в уебсайтове и в социалните медии. В някои случаи кампанията използва ChatGPT за пренаписване на коментари, публикувани от други потребители на социални медии.
OpenAI добави, че по-голямата част от публикациите на кампанията в социалните медии са получили малко или никакви харесвания , споделяния или коментари и че е открило малко доказателства, че уеб статиите, създадени от кампаниите, са били споделяни в социалните медии.
